De la observación a la intervención: Auditoría causal en modelos MoE
Un estudio revela que las métricas observacionales no predicen la importancia causal de los expertos en modelos MoE. El éxito del pruning se debe a la redundancia temprana. Descubre los hallazgos.